Dynamic Rollout Editing for Reducing Overthinking in RL-Trained Reasoning Models
动态轨迹编辑：缓解 RL 训练推理模型的过度思考
🧭 GRPO 训练中的动态轨迹编辑
Institute of Computing Technology, Chinese Academy of Sciences · University of Chinese Academy of Sciences
针对 GRPO 训练中序列级信用分配导致过度思考膨胀，提出训练时动态编辑成功轨迹的冗余部分
📌 工作参考价值（4 点）
- Agent 多步推理的截断训练：在电商 Agent 用 RL 训练时，若成功轨迹存在冗余推理，可借鉴 DRE 思路，在答案出现后截断并保留前缀，避免对无用 token 的正向强化。
- GRPO 信用分配的工程修正：在广告文案生成或推荐解释的 RL 训练中，即使整体生成质量不错，序列级奖励会错误地鼓励拖沓；可引入轨迹编辑，显式偏好简洁版本。
- 减少线上推理浪费：训练时压制 overthinking，能降低部署后 Agent 在搜索、问答场景的 token 浪费，直接节省成本。
- 监控与干预点：初始化 GRPO 时检查成功轨迹的过度程度，早期干预可避免反馈循环，适合在推荐模型 RL 微调时作为监控指标。